Giữa năm 1938, sau 5 năm rưỡi dưới chế độ Quốc xã, số ít người chống lại Adolf Hitler thấy rõ rằng chỉ Quân đội mới có đủ sức mạnh vật chất để lật đổ ông. Công nhân và các giai cấp trung lưu và thượng lưu đều không có phương tiện trong tay. Họ không có tổ chức bên ngoài các nhóm của đảng Quốc xã, và dĩ nhiên không được vũ trang. Dù rằng về sau người ta viết nhiều về phong trào "kháng chiến" Đức, từ đầu đến cuối đấy chỉ là một nhóm yếu ớt của một dúm người can đảm và tề chỉnh, chỉ có tướng mà không có quân.

Lúc đầu, sự chống đối là từ dân thường. Các tướng lĩnh đã quá hài lòng với việc xóa bỏ những hạn chế của Hòa ước Versailles và với việc nhận nhiệm vụ tái vũ trang. Điều mỉa mai là những dân thường cầm đầu chống lại Hitler chính là những người đã từng phục vụ ông trong chức vụ quan trọng. Phần lớn số này đã từng hăng say với chủ nghĩa Quốc xã, và chỉ từ năm 1937 mới bắt đầu nhận ra rằng Hitler đang đẩy Đức vào cuộc chiến mà hầu như chắc chắn Đức sẽ thua.

Một trong những người đầu tiên được sáng mắt là Carl Goerdeler, cựu thị trưởng Leipzig và Kế toán trưởng Vật giá. Có năng lực, nhiệt huyết và thông minh, nhưng hay hớ hênh. Tuy kiên trì, ông từ chức cả hai nơi vào năm 1936, rồi hành động chống đối Hitler với cả con tim và linh hồn.

Hai người sáng mắt kế tiếp là Johannes Popitz, cựu Bộ trưởng Tài chính của Bang Phổ và TS. Hjalmar Schacht, cựu Thống đốc Ngân hàng Nhà nước Đức. Cả hai đã được thưởng huân chương cao quý nhất của Quốc xã vì công lao đóng góp vào nền kinh tế cho mục đích chiến tranh. Có lẽ vì quá khứ và tư cách của họ mà hai người không được thành phần cốt lõi của nhóm chống đối tin cậy.

Popitz là người thông minh nhưng thiếu ổn định tư tưởng. Là một học giả tài ba về Hy Lạp cũng như là nhà kinh tế thành danh, ông gia nhập một nhóm trí thức gặp gỡ mỗi tuần để bàn luận về tâm lý học, sử học, nghệ thuật, khoa học, văn học; rồi theo thời gian tiến triển – hoặc thời gian không còn nữa – thành lập nên một trong những nhóm chống đối.

Schacht là con người của chủ nghĩa cơ hội, và Hassell nhận xét trong nhật ký của ông là Schacht "nói một đàng nhưng làm một nẻo" – ý kiến mà ông nghĩ Đại tướng Tham mưu trưởng Lục quân Ludwig Beck và Đại tướng Tư lệnh Lục quân Werner von Fritsch cũng đồng ý.

Ulrich von Hassell trở thành một cố vấn ngoại giao cho các nhà lãnh đạo chống đối. Là người có văn hóa, ông khinh rẻ cung cách thô lỗ của Quốc xã, nhưng vẫn phục vụ chế độ cho đến khi bị khai trừ trong cuộc cải tổ sâu rộng của Hitler ngày 4 tháng 2 năm 1938. Cũng giống như nhiều người khác, có vẻ như phải đợi đến khi có cú sốc do bị Quốc xã cách chức ông mới nghĩ đến việc làm gì đấy để lật đổ họ. Một khi chuyện này xảy ra, con người nhạy cảm, thông minh, bứt rứt toàn tâm vào nhiệm vụ mới và cuối cùng hy sinh đời ông, chịu một cái chết dã man.

Có những người khác, ít được biết đến hơn và đa số trẻ hơn, chống đối Hitler ngay từ đầu và dần dà kết hợp với nhau để tạo thành những nhóm khác nhau. Có nhà trí thức, có nhà lãnh đạo nghiệp đoàn. Có hai sĩ quan Gestapo: Artur Nebe, chỉ huy cảnh sát hình sự, và Bernd Gisevius, một sĩ quan cảnh sát chuyên nghiệp trẻ, trở nên những phụ tá đắc lực cho nhóm âm mưu. Gisevius đóng góp nhiều thông tin cho các công tố viên của Mỹ tại Tòa án Nürnberg. Ông viết một quyển sách đưa ra ánh sáng nhiều chi tiết trong các âm mưu chống Hitler, tuy phần đông các nhà sử học và tác giả này nửa tin nửa ngờ.

Có một số người trẻ tuổi thuộc dòng dõi của những gia đình tiếng tăm ở Đức: Bá tước Helmuth von Moltke, dòng dõi một Thống chế lừng danh, sau này lập nên Nhóm Kreisau; Bá tước Albrecht von Bernstorff, cháu của đại sứ Đức tại Hoa Kỳ trong Thế chiến I; Freiherr Karl Ludwig von Gutenberf, chủ bút không hề biết sợ của một nguyệt san Công giáo; Mục sư Dietrich Bonhoeffer thuộc gia tộc giáo sĩ Tin lành có tiếng tăm ở hai bên nội ngoại, người xem Hitler là kẻ phản Chúa và tin rằng nhiệm vụ của người theo Cơ đốc là phải trừ khử ông.

Phần lớn những người trẻ dũng cảm này đều kiên trì cho đến khi bị Quốc xã bắt giam, tra tấn rồi xử tử hoặc chỉ việc giết bỏ.

Trong một thời gian, nhóm dân thường nhỏ nhoi như thế không thể dẫn dụ Quân đội vào công việc của họ. Như Thống chế von Blomberg khai trước Tòa án Nürnberg: